嘉宾介绍

DOIT

DOIT学院讲师团

主题介绍

中国计算机行业协会信息存储与安全专委会会长、华中科技大学武汉光电国家研究中心教授谢长生发表主题演讲。

本报告将介绍面向大模型的存储系统优化的相关工作

主要包括:

(1)基于多级缓存架构的大模型训练加速技术,减少数据停顿并降低容错开销;

(2)基于异构算力的大模型推理优化策略,突破显存限制;

(3)基于分级存储的融合检索库,实现高效检索和数据管理,提升大模型推理效率。


您需要登录后才可以发表评论

还没有小伙伴评论哦,快来抢个沙发吧。